상태 공간 모델 (Mamba)
MAMBA는 기존 Transformer 모델이 긴 데이터 처리 시 연산량이 급격히 증가하는(제곱 비례, O(N^2)) 문제를 해결하기 위해 고안된 선택적 상태 공간 모델(Selective SSM) 기반의 딥러닝 아키텍처다.
이 모델은 입력 데이터의 내용에 따라 중요한 정보는 기억하고 불필요한 정보는 거르는 **‘선택 메커니즘(Selection Mechanism)’**을 도입하여, Transformer와 동등한 수준의 언어 모델링 성능을 유지하면서도 입력 길이에 비례하는 선형 시간(O(N)) 복잡도를 달성했다. 이를 통해 특히 긴 시퀀스 데이터 처리에서 Transformer 대비 최대 5배 빠른 추론 속도와 현저히 낮은 메모리 사용량을 보여주는 효율적인 대안으로 평가받는다.